ACL 2022 | MetaDistil:基于元学习的模型蒸馏
©PaperWeekly 原创 · 作者 | BNDSBilly
研究方向 | 自然语言处理
Abstract
论文标题:
BERT Learns to Teach: Knowledge Distillation with Meta Learning
https://arxiv.org/abs/2106.04570
https://github.com/JetRunner/MetaDistil
Methods
2.1 MetaDistil
在传统模型蒸馏过程中,一般首先训练一个大模型作为教师模型,然后训练一个小的学生模型来模拟教师模型的行为,以便获取教师模型的知识。在整个过程中,教师模型是固定的。但是这一范式有两个缺点:首先,教师模型不知道学生模型的能力。有教育学研究表明,以学生为中心的学习(考虑到学生的特点和学习能力)可以显著提升学生表现。然而,传统的知识蒸馏无法考虑到学生模型的学习能力和表现。其次,教师模型并没有针对蒸馏而最优化。一般而言,选取的教师模型都最优化以提升自的推理性能,然而并不一定是传递知识的最优化状态。打个比方,一个博士有足够的知识来自己解决问题,但需要额外的教学培训才能获得教授资格。
meta learning 的核心思想是 learning to learn
,也即同时考虑优化学习算法过程和算法本身。其通常涉及一个双层优化过程,外层称为元学习器,对应蒸馏过程中的教师模型;内层称为内学习器,对应学生模型。最近的一些研究使用了这种双层优化框架,例如 meta pseudo labels
工作 [2] 使用元学习来优化伪标签生成器,以实现更好的半监督学习;m
eta back-translation
工作 [3] 使用该框架训练反向翻译模型,从而间接地训练机器翻译模型。在每轮迭代中,内学习器通过蒸馏从元学习器学习知识并更新,然后元学习器再根据其表现进行更新。
但是,该方法的主要思路是让内学习器更加适配于元学习器,从而获得一个最优化的元学习器;但在本文中,目标是让内学习器(学生模型)达到最优,而让元学习器(教师模型)来适配内学习器的表现。
所以,本文作者提出了 pilot update
方法来解决这一问题:首先仍然按照 meta learning 的方式进行每一轮的内学习器和元学习器的更新,只不过内学习器的更新要在元学习器更新后撤销,再根据更新的元学习器进行本轮的更新,这样可以使两个学习器的更新进行同步和匹配。在实现撤销这一步时,为了方便起见,作者复制了一个内学习器的副本,在 meta learning 结束后,直接将该副本删除即可。
quiz set
,将学生模型在该数据集上的表现计算损失函数。logits
输出的 MSE loss。pilot update
的情况下,模型性能下降,说明了该更新方法的有效性。此外,MetaDistil 在图像分类方面也取得了非常有竞争力的结果。pilot update
算法中第 两行更新后学生模型的 validation loss 进行了对比。对比发现,后者的 loss 更小,这说使用了pilot update
方法更新的学生模型表现比不使用要更好。除此之外,作者还观察到,在算法第 行分别更新教师模型和学生模型后,教师模型的 logits 与学生模型的相似度下降,作者推断这是由于教师模型需要强化自己的能力,以便于下一步更加好的将知识传递给学生模型。参考文献
[1] Chelsea Finn, Pieter Abbeel, and Sergey Levine. Model-agnostic meta-learning for fast adaptation of deep networks. In Doina Precup and Yee Whye Teh (eds.), ICML, 2017.
[2] Hieu Pham, Zihang Dai, Qizhe Xie, Minh-Thang Luong, and Quoc V Le. Meta pseudo labels. arXiv preprint arXiv:2003.10580, 2020.
[3] Hieu Pham, Xinyi Wang, Yiming Yang, and Graham Neubig. Meta back-translation. arXiv preprint arXiv:2102.07847, 2021.
更多阅读
#投 稿 通 道#
让你的文字被更多人看到
如何才能让更多的优质内容以更短路径到达读者群体,缩短读者寻找优质内容的成本呢?答案就是:你不认识的人。
总有一些你不认识的人,知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁,促使不同背景、不同方向的学者和学术灵感相互碰撞,迸发出更多的可能性。
PaperWeekly 鼓励高校实验室或个人,在我们的平台上分享各类优质内容,可以是最新论文解读,也可以是学术热点剖析、科研心得或竞赛经验讲解等。我们的目的只有一个,让知识真正流动起来。
📝 稿件基本要求:
• 文章确系个人原创作品,未曾在公开渠道发表,如为其他平台已发表或待发表的文章,请明确标注
• 稿件建议以 markdown 格式撰写,文中配图以附件形式发送,要求图片清晰,无版权问题
• PaperWeekly 尊重原作者署名权,并将为每篇被采纳的原创首发稿件,提供业内具有竞争力稿酬,具体依据文章阅读量和文章质量阶梯制结算
📬 投稿通道:
• 投稿邮箱:hr@paperweekly.site
• 来稿请备注即时联系方式(微信),以便我们在稿件选用的第一时间联系作者
• 您也可以直接添加小编微信(pwbot02)快速投稿,备注:姓名-投稿
△长按添加PaperWeekly小编
🔍
现在,在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧